(網(wǎng)經(jīng)社訊)從智能家居的語音助手到自動駕駛汽車，AI正以前所未有的方式改變著世界，但隨著AI技術(shù)的不斷發(fā)展和應(yīng)用其雙刃劍的特性也逐漸顯現(xiàn)，深度偽造技術(shù)就帶來了不小的隱患。
AI能夠輕松換臉、模仿聲音，能夠做到讓張文宏深夜帶貨，讓雷軍大罵網(wǎng)友，就連明星靳東都被AI硬塞代言。
張文宏深夜帶貨?
近日，有網(wǎng)友向媒體反映：家中老人在網(wǎng)絡(luò)賣貨視頻中看到知名傳染病學(xué)專家張文宏醫(yī)生在賣一種蛋白類的產(chǎn)品，老人信以為真，不僅下了單還轉(zhuǎn)發(fā)了很多群。
事實(shí)上，該視頻并非張文宏醫(yī)生本人發(fā)布的，而是有人利用AI技術(shù)合成的。在這段視頻中，被合成的人像反復(fù)介紹一種產(chǎn)品，聲音聽起來也很像張文宏本人，商品櫥窗內(nèi)的某蛋白棒售賣鏈接顯示已出售1200多件。目前，該賬號已搜索不到。
對此，張文宏醫(yī)生在回應(yīng)媒體時表示，“我在發(fā)現(xiàn)這個事情后立即投訴過那個AI合成的視頻，但他的賬號一直在換，我最后也沒有精力了。這些假的AI合成信息就像蝗災(zāi)一樣，一次又一次發(fā)生，像漫天飛過來的蝗蟲一樣害人。事實(shí)上，從平臺投訴結(jié)果來看，我覺得最終也難以解決問題。”
除了向平臺方投訴，張文宏稱自己也曾考慮過報警，但對方看不見摸不到，就像幽靈一般難以描述，只能寄希望于相關(guān)部門加強(qiáng)監(jiān)管。“報警總要有個對象對吧，現(xiàn)在報警報誰呢?他一天換一個賬號，而且全是虛擬的，我向誰報警?所以我認(rèn)為，他侵犯的是消費(fèi)者的利益，我覺得相關(guān)部門應(yīng)該處理。”張文宏說。
科技旋渦認(rèn)為，當(dāng)前AI技術(shù)飛速發(fā)展，特別是深度學(xué)習(xí)算法的不斷成熟，使得換臉技術(shù)的門檻大大降低。在前面提到的假張文宏之前，已經(jīng)出現(xiàn)過假靳東、假雷軍、假于東來等。
AI雷軍罵翻全網(wǎng)，AI靳東詐騙老人
國慶假期，短視頻平臺上出現(xiàn)了大量“雷軍”的發(fā)言視頻，涉及堵車、調(diào)休、游戲等熱門話題，不僅言辭犀利，還常爆粗口。
對于很多熟悉網(wǎng)絡(luò)環(huán)境的人來說，這些“雷軍 AI 配音”視頻可能是“一眼假”，但雷軍的名氣太大，影響力也很大，難免會有人當(dāng)真。畢竟，在短視頻平臺上，那些甚至都沒有用AI配音，只是用剪輯的影像配文字字幕的“假靳東”視頻，都有不少人上當(dāng)。
據(jù)報道，今年11月，江西一位65歲老人到銀行辦理業(yè)務(wù)，聲稱要貸款200萬元給男朋友“靳東”拍戲。經(jīng)調(diào)查發(fā)現(xiàn)，老人手機(jī)里的“靳東”出自AI合成的視頻。
今年10月，老牌港星黃百鳴通過社交媒體鄭重聲明，有人盜用其過去影片，利用AI替換聲音，代言一個不知名的藥膏品牌。
科技旋渦認(rèn)為，技術(shù)進(jìn)步帶來了信息的洪流，我們對于所謂的“名人信息”及吸睛信息，不可“聽風(fēng)就是雨”，盲目相信、輕易下單購買。AI換臉等新型侵權(quán)案件不斷涌現(xiàn)，除了用戶自身提高網(wǎng)絡(luò)安全意識，對于AI換臉相關(guān)風(fēng)險的預(yù)防與整治，需要從源頭進(jìn)行監(jiān)管、司法形成多主體、全鏈條的治理。
科技進(jìn)步，監(jiān)管趨嚴(yán)
今年9月，國家網(wǎng)信辦已經(jīng)發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法(征求意見稿)》，要求從視頻制作和發(fā)布的源頭做好信息管理。其中明確提出兩種人工智能生成合成內(nèi)容標(biāo)識的種類，即“顯式標(biāo)識”與“隱式標(biāo)識”，還明確了兩類標(biāo)識所應(yīng)當(dāng)適用的場景，將《深度合成規(guī)定》第十七條所提出的“顯著標(biāo)識”與“顯式標(biāo)識”建立了直接的對應(yīng)關(guān)系。
12月15日，“微信珊瑚安全”微信公眾號發(fā)布關(guān)于打擊利用AI仿冒知名人士進(jìn)行營銷宣傳的公告，已處理532條內(nèi)容，關(guān)閉賬號209個。
今年3月份，抖音安全中心發(fā)布不當(dāng)利用AI生成虛擬人物的治理公告，指出將嚴(yán)格處罰違規(guī)使用AI生成虛擬人物發(fā)布違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。
除去監(jiān)管部門和平臺出臺相關(guān)規(guī)定，AI工具的制作者也需遵守相關(guān)法律法規(guī)。今年5月，OpenAI在未經(jīng)美國演員“寡姐”斯嘉麗·約翰遜的同意模仿其聲音，已經(jīng)收到律師函。
而在我國，也已經(jīng)出現(xiàn)了第一例AI生成聲音人格權(quán)侵權(quán)案，北京互聯(lián)網(wǎng)法院在4月份對全國首例“AI聲音侵權(quán)案”進(jìn)行一審宣判。就此事，我們曾咨詢北京鼎世律師事務(wù)所執(zhí)行主任孫亮律師，他表示：“《民法典》第四編為人格權(quán)編，在該編中就涉及自然人的肖像權(quán)、名譽(yù)權(quán)、隱私權(quán)、聲音權(quán)益等民事權(quán)利進(jìn)行了專門的規(guī)定。相關(guān)主體在利用AI技術(shù)進(jìn)行創(chuàng)作的過程中，要對此予以重視，避免侵犯自然人的民事權(quán)益。”
科技旋渦認(rèn)為，人工智能技術(shù)是一把雙刃劍，張文宏、雷軍、靳東等案例不斷提醒著我們正在直面AI帶來的種種挑戰(zhàn)。只有全社會共同努力，需要企業(yè)、學(xué)界、立法機(jī)構(gòu)等各方攜手，才能遏制技術(shù)飛速發(fā)展所帶來的各種問題。
寫在最后
迅猛發(fā)展的AI技術(shù)需要通過多方努力為其劃定“底線”和“紅線”才能大力降低AI生成的內(nèi)容所隱藏的種種風(fēng)險，從而真正享受新興技術(shù)帶來的便利，推動人工智能產(chǎn)業(yè)的良性健康發(fā)展。
